Vào năm 616 hay trước đó, Trạch Nhượng là một pháp tào [1] ở Đông quận (東郡, nay gần tương ứng với An Dương, Hà Nam), vì bị cáo buộc phạm tội nên ông bị phán xử trảm. Ngục lại Hoàng Quân Hán (黃君漢) thấy Trạch Nhượng kiêu dũng nên thương cảm, đã bí mật thả ông ra vào ban đêm. Sau đó, Trạch Nhượng chạy đến trại Ngõa Cương (瓦崗) ở gần đó và tập hợp một số nông dân nghèo khổ tổ chức nổi dậy chống triều đình. Hai trong số những thuộc hạ chủ chốt của ông là Đan Hùng Tín và Từ Thế Tích, họ đề xuất với ông rằng không nên cướp bóc của người dân địa phương để có lương thực cho binh sĩ. Hai người này nói rằng vì Biện Thủy (汴水) chảy qua các quận Huỳnh Dương (滎陽, nay gần tương ứng với Trịnh Châu, Hà Nam) và Lương (梁郡, nay gần tương ứng với Thương Khâu, Hà Nam) và có hoạt động giao thông thủy nhộn nhịp, họ chỉ cần cướp bóc tàu thuyền đi lại trên sông. Trạch Nhượng chấp thuận, đội quân của ông bắt đầu thu thập của cải. Ngày càng có thêm những người tuyệt vọng gia nhập vào Ngõa Cương quân, nâng tổng quân số lên hơn một vạn.

Lý Mật vốn là mưu chủ [2] của Dương Huyền Cảm khi Dương Huyền Cảm tiến hành nổi dậy vào năm 613. Sau khi Dương Huyền Cảm thất bại, Lý Mật phiêu bạt khắp nơi để tìm một thủ lĩnh nổi dậy có thể hợp tác với mình. Lý Mật thấy Trạch Nhượng là thủ lĩnh nổi dậy mạnh nhất trong khu vực nên đã gặp gỡ với Trạch Nhượng thông qua Vương Bá Đương (王伯当)- là một thủ lĩnh nổi dậy khác. Lý Mật đã đề xuất một số sách lược cho Trạch Nhượng, cũng thuyết phục được một số thủ lĩnh nổi dậy khác liên hiệp lại dưới quyền chỉ huy của Trạch Nhượng. Lý Mật từng đề xuất với Trạch Nhượng hãy tận dụng thời cơ Tùy Dạng Đế ở Giang Đô (江都, nay thuộc Dương Châu, Giang Tô) mà dẫn quân tiến công đông đô Lạc Dương và kinh đô Trường An. Trạch Nhượng không có tâm làm những việc trọng đại như vậy, vì thế không chấp thuận kế hoạch, song ngày càng trở nên ấn tượng trước Lý Mật và đối đãi như khách quý.

Trong khi đó, xuất hiện sấm ngôn "Lý thị đương vương", các thủ lĩnh nổi dậy bắt đầu tin rằng Lý Mật là hoàng đế tiếp theo, do đó họ bắt đầu quy phục bản thân Lý Mật. Khi Trạch Nhượng biết được điều này, ông ta càng ấn tượng với Lý Mật hơn và xem xét chấp thuận kế hoạch của Lý Mật. Lý Mật cũng thuyết phục chiến lược gia và chiêm tinh gia Giả Hùng (賈雄) của Trạch Nhượng chấp thuận kế hoạch của mình. Khi Trạch Nhượng hỏi Giả Hùng liệu các dấu hiệu chiêm tinh có chỉ ra rằng kế hoạch của Lý Mật có thể thành công hay không, Giả Hùng nói rằng sẽ như vậy, song Lý Mật có thể sẽ không thành công trong việc trở thành hoàng đế, nhưng nên ủng hộ Lý Mật. Trạch Nhượng tin lời Giả Hùng và ban phú quý cho Lý Mật hơn nữa.

Theo khuyến nghị của Lý Mật, Trạch Nhượng bắt đầu tiến công và chiếm các thành trong quận Huỳnh Dương. Đáp lại, Tùy Dạng Đế phái Trương Tu Đà (張須陀) dẫn quân thảo phạt Trạch Nhượng. Trạch Nhượng lúc trước từng thua vài trận trước Trương Tu Đà nên nay cảm thấy lo sợ, song Lý Mật đã thuyết phục Trạch Nhượng rằng có thể đánh bại được vị tướng Tùy này. Theo đề xuất của Lý Mật, Trạch Nhượng lệnh Lý Mật dẫn một nghìn lính và nấp trong rừng phục kích, còn mình sẽ giao chiến trực diện với quân Tùy. Trương Tu Đà vốn xem thường Trạch Nhượng, dẫn quân lao thẳng tới tiến công, Trách Nhượng chống ngự qua loa rời vờ thua chạy, Trương Tu Đà đuổi theo hơn 10 dặm, đường đi ngày càng hẹp, tiến vào nơi Lý Mật đã bố trí phục binh. Lý Mật cho quân mai phục xông ra tập kích Trương Tu Đà, bao vây quân triều đình. Ban đầu, Trương Tu Đà có thể thoát khỏi vòng vây, song do cố gắng cứu một số thuộc hạ, Trương Tu Đà đã tử trận, quân triều đình bị tiêu diệt. Qua chiến thắng này, danh tiếng của Ngõa Cương quân được khuếch trương rất nhiều, nguồn cung thực phẩm cũng nhiều lên. Sau chiến thắng, Trạch Nhượng lập một đội quân riêng do Lý Mật chỉ huy, gọi là "Bồ Sơn công doanh". Khi đội quân của Lý Mật phát triển, các binh sĩ của Trạch Nhượng bắt đầu có xích mích với binh sĩ của Lý Mật. Trạch Nhượng do đó đã tách quân của mình ra khỏi Lý Mật song ngay sau đó đã hối tiếc về quyết định này và lại hội quân với Lý Mật.